الصفحة الرئيسية › أخبار وطنية

أخبار وطنية تحت مجهر ملتقى علمي بكلية الحقوق: قرينة البراءة في مواجهة الذكاء الاصطناعي.."قلعة الحصن" وشرّ قادم لا بدّ منه في منظومة العدالة الجزائية

في ملتقى علمي دولي بعنوان "أصل البراءة: مبدأ تأصيلي"، الذي نظمته وحدة البحث في العلوم الجنائية وعلم الإجرام بكلية الحقوق والعلوم السياسية بتونس مؤخرا طُرحت إشكاليات عميقة تتعلق بمستقبل قرينة البراءة في ظل التحولات التكنولوجية، وخاصة مع صعود الذكاء الاصطناعي وتغلغله في أنظمة العدالة الجنائية.

وفي افتتاح هذا اللقاء في فعاليات يومه الأول، أكدت رئيسة وحدة البحث، الأستاذة فدوى قهواجي، أن البراءة تمثل مبدأً أساسيا يضمن الحقوق الأساسية للفرد خلال الإجراءات الجزائية، مشيرة إلى أن هذا المبدأ يرتبط أيضاً بالتزامات تونس الدولية في مجال حقوق الإنسان، ويُعدّ أحد الأعمدة التي تقوم عليها العدالة الحديثة.

من جانبه، أوضح المحامي والأكاديمي كمال بن مسعود، في مداخلته المعنونة بـ"مبدأ البراءة، مبدأ دستوري"، أن قرينة البراءة تُعدّ ركيزة أساسية تهدف إلى الحد من السلطة القمعية للجهاز القضائي، خاصة في حال غياب الاستقلال التام. واعتبر أن هذا المبدأ متجذر في الثقافة العربية بقدر تجذره في الدستور التونسي، باعتباره ضمانة لكرامة الإنسان وحقه في الحياة والحرية والملكية.

كما أثار الأستاذ بن مسعود مسألة التعويض في حالات المساس بسمعة المتهم في ظل غياب الأدلة المادية، محذرا من مخاطر تحويل قرينة البراءة إلى قرينة إدانة. ومؤكدا في ذات الطرح استنادا إلى تجربته المهنية أن هذا المبدأ لا يجب أن يُساء استخدامه أو يُفرغ من محتواه.

في سياق متصل، قدّم الأستاذ جهاد الكسواني أستاذ القانون الخاص والجنائي المشارك ونائب عميد كلية الحقوق لحرم القدس بجامعة القدس مداخلة بعنوان «مبدأ البراءة في ظل خوارزميات الذكاء الاصطناعي»، سلّط فيها الضوء على ما اعتبره أخطر التحديات المعاصرة التي تهدد هذا المبدأ.

واعتبر المتدخل أن الخطر المحدق اليوم بقرينة البراءة في المنظومات القانونية ذات الطابع اللاتيني يتمثل أساسا في الذكاء الاصطناعي وخوارزمياته، مشددا على أن هذه القرينة باتت في حاجة إلى مواجهة دستورية حقيقية نظرا لما تمثله من أساس للحقوق والحريات.

وأوضح الكسواني أن قرينة البراءة تقوم على افتراض أن الإنسان بريء إلى أن تثبت إدانته بمحاكمة عادلة تضمن له جميع أوجه الدفاع، مشيرا إلى أن لهذه القرينة مفعولا دفعيا يحمي الفرد من كل ما قد ينال من حرياته وكرامته.

غير أن هذا المبدأ وفق المتحدث، يواجه اليوم مخاطر غير مسبوقة مع تسرب خوارزميات الذكاء الاصطناعي إلى أنظمة العدالة الجزائية.

وفي تعريفه للخوارزميات، بيّن الأستاذ الكسواني أنها مجموعة من التعليمات البرمجية والقواعد الحسابية الرياضية التي تمكّن الآلة من محاكاة السلوك البشري عبر مراحل متتابعة تشمل جمع البيانات، التدريب، الإنتاج، ثم اتخاذ القرار. وهي عمليات تعتمد على تغذية الأنظمة بكميات هائلة من المعطيات، بما يسمح لها بتحليل الأنماط والتعلم من التجارب السابقة.

أما الذكاء الاصطناعي، فعرّفه بكونه قدرة الآلة على محاكاة الذكاء الإنساني في التفكير واتخاذ القرار مع إمكانية تجاوز حدود الأداء البشري خاصة عبر الاعتماد على قواعد بيانات ضخمة تُستخدم لإنتاج قرارات في مختلف المجالات من بينها العدالة الجنائية.

وفي هذا الإطار، أشار المتدخّل إلى تطور التشريعات المقارنة مبرزا صدور القانون الأوروبي للذكاء الاصطناعي في جوان 2024 المعروف بقانون الذكاء الاصطناعي (EU AI Act) الذي صنّف الأنظمة إلى ثلاث فئات وهي أنظمة خطرة وأنظمة عالية المخاطر  وأنظمة عادية، مؤكدا أن الأنظمة المرتبطة بالإجراءات الجزائية وقرينة البراءة تُدرج ضمن الفئة الخطرة لما لها من تأثير مباشر على الحقوق الأساسية.

وبيّن أن أهمية الموضوع تتجلى نظريا في كونه محل نقاش فلسفي بين الأنظمة القانونية خاصة بين النظام الاتهامي الذي يقدّس قرينة البراءة والنظام التنقيذي الذي يقيّدها، وعمليا في ما يطرحه من تحديات واقعية مع تطور تقنيات المراقبة والتصنيف.

وفي هذا السياق، حذّر من اتساع الرقابة الرقمية عبر الكاميرات وأنظمة التتبع وما قد ينجم عنها من تصنيف للأفراد على أساس اللون أو العرق أو الدين أو الانتماء الاجتماعي، مستشهدا بحالات الإيغور في الصين أو التحيزات الممنهجة ضد ذوي البشرة الداكنة في الولايات المتحدة وأوروبا حيث قد تتحول الأنظمة التنبؤية إلى أدوات لإنتاج قرائن إدانة مسبقة.

كما طرح تساؤلا جوهريا حول كيفية ضمان التوازن بين حماية حرية الفرد وكرامته الإنسانية من جهة، وحماية الإبداع والملكية الفكرية من جهة أخرى، خاصة في ظل دفاع بعض الأطراف عن خوارزميات الذكاء الاصطناعي باعتبارها إنتاجا فكريا يستحق الحماية.

وفي معرض تحليله قسّم الكسواني بحثه إلى محورين، الأول يتعلق بتحديات الخوارزميات بالنسبة لقرينة البراءة والثاني يدرس الحلول الممكنة لمواجهة هذه التحديات.

وبدءً بقراءته القانونية النقدية حول ما وصفه بالتحيّز الخوارزمي، اعتبر الأستاذ الكسواني أن التحيّز الخوارزمي يتجلّى بوضوح داخل أنظمة تقييم المخاطر وهي أنظمة تُصنّف ضمن ما يُعرف بالأنظمة الخبيرة المعتمدة على نموذج التفكير الاستنتاجي.

واعتبر أنّ خطورة هذه الأنظمة تكمن في تكريسها لمنطق المواجهة الاستباقية للجريمة، بما يجعل الفرد لا يُنظر إليه بوصفه بريئا إلى حين ثبوت إدانته وإنما يُقيَّم استنادا إلى ما تعتبره الخوارزميات "خطورة إجرامية محتملة" بناء على معطيات مرتبطة بصورته أو تاريخه أو محيطه وهو ما قد يؤثر بشكل مباشر في السلطة التقديرية للقاضي الجزائي عند النظر في قرارات مثل السراح الشرطي أو الإفراج المبكر.

 فإذا ما أوصت الخوارزميات بأن المتهم قد يشكل خطرا مستقبليا، فإن ذلك قد يدفع القاضي إلى الامتناع عن الإفراج عنه وهو توجه معمول به خاصة في المنظومة الأنقلوأمريكية أو الأنقلوسكسونية وقد يصبح قريبا من المنظومات اللاتينية التي لم تواجه بعد هذه المخاطر بنفس الحدّة على حد قوله.

وهو تصور وفق المتحدّث يمكن أن يؤدي إلى ما وصفه بـ"الافتتان التكنولوجي"، حيث يُنظر إلى مخرجات الذكاء الاصطناعي باعتبارها صحيحة ومحايدة بصورة شبه مطلقة بما قد يجعل الخوارزميات أساسا مركزيا للإثبات القضائي رغم أن هذه المخرجات في جوهرها لا تعدو أن تكون قرائن إدانة لا تمتّ بصلة مباشرة إلى أصل البراءة.

ومن بين أبرز التحديات كذلك، مسألة اختلال التوازن بين سلطات الاتهام وحقوق الدفاع خاصة في ظل محدودية قدرة المتهم أو حتى دفاعه على الفهم الشامل للآليات التقنية المعقدة التي تقوم عليها الخوارزميات. واعتبر انّ المتهم قد يجد نفسه في مواجهة نظام تقني مغلق وصفه بعض الفقهاء بـ"الصندوق الأسود" بل ذهب المتحدث إلى تشبيهه بـ"حصن الأكراد أو قلعة الحصن" الموجود في سوريا تمثيلا باستحالة اختراقه أو فهم بنيته إلا من قبل مطوريها أنفسهم وهو ما يطرح إشكالا جوهري يتعلق بحقوق الدفاع انطلاقا من حق الصمت، وصولا إلى حق المواجهة والطعن في الأدلة.

وفي هذا الإطار، شدّد الأستاذ على أن غياب شفافية الخوارزميات يمثل خطرا بالغا على قرينة البراءة خاصة وأن الشركات المطورة لهذه الأنظمة غالبا ما تتمسك بحقوق الملكية الفكرية والأسرار التجارية لرفض الكشف عن شيفراتها أو آليات اشتغالها بما يحول دون إخضاعها للمساءلة القانونية أو الرقابة القضائية الفعلية.

كما استدلّ المتدخل بأنظمة العمل الشرطي التنبئي باعتبارها من أخطر تجليات التحيّز الخوارزمي، حيث تعتمد هذه الأنظمة على تحليل البيانات السلوكية والإجرامية للتنبؤ بارتكاب الجرائم قبل وقوعها بما قد يؤدي إلى التجريم المبكر للأفراد أو الجماعات.

وقد أظهرت تجارب عدة خاصة في الولايات المتحدة وبريطانيا استخدام برامج مثل COMPAS وغيرها في تصنيف الأفراد وفق احتمالات إجرامية مستقبلية، الأمر الذي أدى إلى وسم فئات معينة بمعدلات خطورة أعلى رغم غياب التوازن الواقعي في المعطيات وهو ما يكشف عن تحيزات بنيوية خطيرة داخل هذه الأنظمة.

وأمام هذه التحديات، طرح الأستاذ جملة من الحلول أبرزها ضرورة التدقيق المستقل والتفسير الشامل والرقابة المستمرة على أنظمة الذكاء الاصطناع من خلال إرساء جهة قضائية أو رقابية متخصصة ومحايدة تتولى مراقبة مدى نزاهة هذه الخوارزميات وحيادها.

كما شدّد على أهمية فرض التفسير الإلزامي على مطوري الخوارزميات، بما يضمن تقديم شروحات واضحة ومفهومة حول كيفية اشتغالها حتى يتمكن القضاة والمحامون والمتهمون من فهم الأدلة التقنية وتفنيدها عند الاقتضاء.

وختم المتحدث بالتأكيد على أن التفسير الإلزامي بات يمثل ضمانة أساسية من ضمانات قرينة البراءة ذلك لأن العدالة الجنائية لا يمكن أن تُبنى على الغموض أو التخمين بل على الوضوح واليقين، مشددا في ختام مداخلته على أن الذكاء الاصطناعي رغم كونه "شرّ قادم لا بد منه" في منظومة العدالة الجنائية الا أنه يجب أن يخضع دوما لسلطة القانون ومبادئ العدالة الدستورية.

 

متابعة: منارة تليجاني